Будущее без работы. Технология, автоматизация и стоит ли их бояться - Даниэль Сасскинд

150

Turing A. Intelligent Machinery, A Heretical Theory // Philosophia Mathematica. 1996. № 3 (4). С. 156–260.

151

Nilsson N. J. Quest for Artificial Intelligence. С. 62.

152

Haugeland J. Artificial Intelligence: The Very Idea. London: MIT Press, 1989. С. 2.

153

Не всех этот путь вдохновлял. Философ Хьюберт Дрейфус, всегда высказывавшийся пессимистически относительно искусственного интеллекта, ругал коллег. Те полагали, что «они могут сделать компьютеры такими же умными, как люди». Цит. по: Grimes W. Hubert L. Dreyfus, Philosopher of the Limits of Computers, Dies at 87 // New York Times. 2017. 2 мая.

154

Хофштадтер Д. Гедель, Эшер, Бах: эта бесконечная гирлянда. М.: Бахрах-М, 2001.

155

Crevier D. AI: The Tumultuous History of the Search for Artificial Intelligence. New York: Basic Books, 1993. С. 48, 52.

156

О «330 миллионах ходов» см.: Campbell M., Hoane Jr. A. J., Hsu F. Deep Blue //Artificial Intelligence. 2002. № 134. С. 57–82; о «сотне ходов» см. введение к переработанному изданию книги: Dreyfus H. What Computers Can’t Do: The Limits of Artificial Intelligence. New York: Harper & Row, 1979. С. 30.

157

Данные взяты из презентации на конкурсе ImageNet 2017 года, см.: http://image-net.org/challenges/talks_2017/ILSVRC2017_overview.pdf (дата обращения: 07.2018). Electronic Frontier Foundation показывает победившие системы на похожем графике и тоже указывает процент ошибок, допускаемых человеком; см.: https://www.eff.org/ai/metrics#Vision (дата обращения: 07.2018). Обзор конкурса см.: Russakovsky O., Deng J., Su H., et al. ImageNet Large Scale Visual Recognition Challenge // International Journal of Computer Vision. 2015. № 3 (115). С. 211–252.

158

Цит. по: Susskind D., Susskind R. The Future of the Professions. С. 161.

159

Впрочем, не все исследователи выбрали этот путь. Марвин Мински поступил иначе и предпочел иерархический подход; см.: https://www.youtube.com/watch?v=nXrTXiJM4Fg.

160

Например, Уоррен Маккаллок и Уолтер Питтс, создавшие первую такую сеть в 1943 году, пытались описать «нейронные события» в мозгу как «логику высказываний» на бумаге. См.: McCulloch W., Pitts W. A Logical Calculus of the Ideas Immanent in Nervous Activity // Bulletin of Mathematical Biophysics. 1943. № 5. С.115–133.

161

Именно поэтому не имеет значения тот факт, что мы до сих пор не научились моделировать даже деятельность мозга червяка, насчитывающего 302 нейрона, не говоря уже о человеческом мозге, в котором около 100 млрд нейронов. Fry H. Hello World: How to Be Human in the Age of the Machine. London: Penguin, 2018. С. 13.

162

На четвертом ходу разница увеличивается до 280 млрд раз. О числе возможных вариантов в шахматах после каждого хода одного из игроков см.: http://oeis.org/A019319, http://mathworld.wolfram.com/Chess.html. Число вариантов измеряется примерно так: 361 × 360 = 129960 после первого хода каждого из игроков; 361 × 360 × 359 × 358 после второго и 361 × 360 × 359 × 358 × 357 × 356 после третьего. (Это лишь грубые подсчеты, исходящие из предположения, что при каждом ходе камушек можно поместить на любую незанятую клетку на доске. Хотя существуют ситуации, в которых одно из этих движений может быть запрещено.)

163

Компания IBM рассказала, как «шахматное мастерство» Deep Blue выросло за последний год. Вместе с международным гроссмейстером Джоэлем Бенджамином команда разработчиков в течение нескольких месяцев обучала программу тонкостям игры. URL: https://www.research.ibm.com/deepblue/meet/html/d.3.3a.html (дата обращения: 01.09.2017).

164

Silver D., Huang A., Maddison C., et al. Mastering the Game of Go with Deep Neural Networks and Tree Search // Nature. 2016. № 529. С. 484–489; Silver D., Schrittwieser J., Simonyan K., et al. Mastering the Game of Go Without Human Knowledge // Nature. 2017. № 550. С. 354–359.

165

Marovcik M., Schmid M., Burch N., et al. Deep Stack: Expert-Level Artificial Intelligence in Heads-Up No-Limit Poker // Science. 2017. № 356 (6337). С. 508–513.

166

Brown N., Sandholm T. Superhuman AI for Multiplayer Poker // Science. 2019. URL: https://science.sciencemag.org/content/early/2019/07/10/science.aay2400.

167

Newell A., Simon H. GPS.

168

Dreyfus H. What Computers Can’t Do: The Limits of Artificial Intelligence. С. 3.

169

Вот, например, какое определение искусственному интеллекту дал Марвин Мински: «Это наука, заставляющая машины делать вещи, которые потребовали бы применения интеллекта, если бы их выполняли люди». Minsky M. Semantic Information Processing. Cambridge, MA: MIT Press, 1968. С. 5.

170

Putnam H. Much Ado About Not Very Much // Daedalus. 1988. № 1 (117). С. 269–281.

171

См.: Haugeland J. Artificial Intelligence. С. 5; Boden M. Philosophy of Artificial Intelligence. Oxford: Oxford University Press, 1990. С. 1.

172

Там же.

173

Metz C. A.I. Researchers Are Making More Than $1 Million, Even at a Nonprofit // New York Times. 2018. 19 апреля.

174

Leviathan Y., Matias Y. Google Duplex: An AI System for Accomplishing Real-World Tasks over the Phone. 2018. 8 мая. URL: https://ai.googleblog.com/ (дата обращения: 08.2018).

175

См.: Paley W. Natural Theology. Oxford: Oxford University Press, 2008; Genesis 1:27. URL: http://biblehub.com/genesis/1–27.htm.

176

Эти параллели и доводы, схожие с моими, можно прочитать в: Dennett D. From Bacteria to Bach and Back. London: Allen Lane, 2017; Dennett D. A Perfect and Beautiful Machine: What Darwin’s Theory of Evolution Reveals About Artificial Intelligence // Atlantic. 2012. 22 июня. Пока я в течение ряда лет формулировал мысли, находился под влиянием рассуждений Деннета о связях между эволюцией, естественным отбором и машинным обучением.

177

Дарвин Ч. Происхождение видов путем естественного отбора // Сочинения. Т.3. М.: Издательство АН СССР, 1939. С. 635.

178

Докинз Р. Слепой часовщик. Как эволюция доказывает отсутствие замысла во Вселенной. М.: АСТ: CORPUS, 2015. С. 10.

179

Подобный довод выдвигает Дэниел Деннет в работе.